Spätestens seit der Veröffentlichung des Sprachmodells ChatGPT Ende 2022 ist die künstliche Intelligenz ein zentrales Motiv, um über die Zukunft der Gesellschaft zu streiten und zu fantasieren. Dabei geht es längst nicht um Science-Fiction: bereits heute ist zum Beispiel für die US-Drehbuchautor:innen die Rolle der KI von materieller Bedeutung. Sie konnten sich zuletzt nach langem Streik Zugeständnisse erkämpfen, die sie vor dem Einsatz generativer KI schützen sollen. Generative KI wie ChatGPT bezeichnet Sprach-, Bild- und Audiogeneratoren, die auf komplexen statistischen Modellen beruhen und aus den darin identifizierten Mustern neue, qualitativ teils nicht von menschlicher Arbeit unterscheidbare Ergebnisse produzieren können. Trotz der Aktualität dieser Thematik sollte nicht vergessen werden, dass es sich bei der KI um eine fast 70 Jahre alte Technologie handelt. Abseits der vielbeschworenen Disruption gilt es also auch, KI historisch und als gesellschaftliches Produkt, oder wie es das Schaufler Lab@TU Dresden formuliert, als „Faktor und Folge gesellschaftlichen und kulturellen Wandels“ zu verstehen. Das Lab befasst sich bereits seit 2020 im Rahmen eines Graduiertenkollegs und einer Künstler:innenresidenz mit der Thematik. Ihr Anspruch ist dabei, gewinnbringend transdisziplinär zu arbeiten und in den gesellschaftlichen Dialog zu treten. Nun luden sie zur Abschlusstagung ihrer ersten Förderphase an die TU Dresden ein, um einen vorläufigen Überblick zu bieten.
Besonders war dabei die disziplinarische Vielfalt der Panels, die diverse Debatten aus verschiedenen Bereichen vereinte. Diese lassen sich anhand drei leitender Fragestellungen nachzeichnen: Wie lässt sich KI als Forschungsgegenstand behandeln? Gibt es etwas „Neues“ an der KI oder wie integriert sie sich in gesellschaftliche Wandlungsprozesse? Und wie lässt sich dieser Wandel (mit)gestalten?
M. BEATRICE FAZI (Sussex) befasst sich in ihrer Arbeit damit, eine Theorie des algorithmischen Denkens (algorithmic thought) zu entwerfen. Sie stützt sich dabei auf die Annahme, das Phänomen KI ernst nehmen zu müssen und anhand seiner eigenen Logik zu bearbeiten. Sprach- und Bildgeneratoren gelinge es heutzutage, beeindruckende Ergebnisse zu produzieren, die von menschlicher Arbeit nicht mehr zu unterscheiden sind. Dennoch habe die KI kein Bewusstsein erlangt, noch denke sie wie der Mensch, so Fazi. Vielmehr handele es sich beim algorithmischen Denken um eine grundverschiedene, ja zum menschlichen Denken inkommensurable Form. Diese beruhe darauf, eine Einigkeit aus den ihr eingespeisten Daten zu schaffen und diese so zu strukturieren, dass innerhalb dieser Struktur neue, selbstreferentielle Outputs generiert werden können. Im Gegensatz zum intersubjektiven Sprachgebrauch der Menschen, der auf einer geteilten Erfahrung und Interpretationen der äußeren Welt beruhe, könne sich die KI stets nur auf ihre eigene Welt beziehen. Fazi fokussierte sich in ihrem Vortrag dabei auf den Aspekt des „synthetischen“ in den sogenannten synthetischen Medien, also KI-generierte Bilder, Töne und Texte. Dabei präsentierte Fazi das Synthetische nicht als etwas „künstliches“, sondern stellte die Synthese und die Strukturierung der eingegebenen Daten als den grundlegenden Prozess des algorithmischen Denkens in den Vordergrund.
Offen blieb bei ihrem Vortrag jedoch, wie sich KI-Systeme, trotz dieser Inkommensurabilität der beiden Denkformen, als effektive Akteure in menschliche Handlungsprozesse eingliedern können. Auch die Science and Technology Studies und der theoretische Rahmen der Akteur-Netzwerk-Theorie, so FLORIAN JATON (Genf), habe darauf zu lange keine Antworten gesucht. Für Akteur-Netzwerk-Theoretiker gäbe es schlicht die beiden konstitutiven Elemente, „künstlich“ und „Intelligenz“, nicht. Jaton kritisierte diesen Umstand, da KI-Systeme bereits heute Effekte produzierten, sowohl als Technik wie auch als kollektive Vorstellung. Er strukturierte die KI-Debatte anhand zweier Elemente: ob ein Phänomen der KI existiere (ja/nein), und wie dies zu bewerten sei (gut/schlecht). Im Rückgriff auf die prozessuale Werttheorie des pragmatischen Philosophen John Dewey schlug Jaton stattdessen vor, eine agnostische Position zu diesen beiden Fragen einzunehmen. Es gelte, sich ethnografisch mit den Erfolgsbedingungen des Phänomens KI auseinanderzusetzen. Die Annahme: Es bedarf ausgiebiger Arbeit, damit Maschinen als intelligent und autonom wahrgenommen werden.
RAINER MÜHLHOFF (Osnabrück) weitete den Blick auf die systemische Ebene. Sein Vortrag zeigte auf, dass Systeme maschinellen Lernens nicht autonom, sondern viel mehr auf der Basis vielfältiger und verteilter menschlicher Arbeit, als human-aided AI oder soziotechnisches System, agierten. Denn diese Systeme beruhen auf riesigen Datensätzen, deren Eingaben aus menschlichem Verhalten hervorgehen, welches generell menschlich annotiert wird, und deren Ergebnisse durch konstantes Feedback weiterentwickelt werden. KI-Systeme seien laut Mühlhoff somit Organisations- und Machtstrukturen. Die datenmächtigen Technologiekonzerne benutzten solche Algorithmen aktuell vor allem, um datengenerierende Dienste, zum Beispiel die Google Suche, zu ermöglichen, und somit menschliche Arbeit zur eigenen Profitgenerierung zu strukturieren, meist durch den Verkauf von personalisierter Werbung. Hinter dem Bild der autonomen künstlichen Intelligenz versteckten sich somit die Kapitalinteressen einer geringen Anzahl an Großkonzernen, welche solche Systeme zur Festigung und Erweiterung der eigenen Positionen nutzten. Dass dabei ausgebeutet wird, zum Beispiel wenn Klickarbeiter:innen ohne adäquaten Schutz Hass- und Gewaltfantasien aus ChatGPT filtern sollten, verschwindet dabei aus der öffentlichen und politischen Debatte. Mühlhoff plädierte für einen ethischen Ansatz, der diese Machtstrukturen explizit behandelt.
Auf dieser systemischen Ebene lässt sich die Rolle der KI in gesellschaftlichen Wandlungsprozessen hinterfragen. Während Mühlhoff den Blick primär auf die Kapitalinteressen warf, ließen sich auch weitere Machteffekte der KI ausmachen. CORINNA BATH (Berlin) argumentierte in dieser Richtung, dass Technologien immer auch ein Spiegelbild der Gesellschaft seien. Sie bezog sich dabei auf feministische Kritiken des dominanten Wissens. Auch technologisch produziertes Wissen, wie in den heutigen Chatbots, sei immer noch gesellschaftlich situiert und reproduziere somit bestehende Ungleichheiten. Die KI wandele somit die Gesellschaft nicht, auch seien wir noch fern davon, die Technologie zu de-gendern, also geschlechterbasierte Ungleichheiten zu entfernen.
DANIELA ZETTI (München) ging noch einen Schritt weiter und zeigte technikhistorisch auf, dass die Aushandlung neuer Technologien in der Gesellschaft auch bestehende Ungleichheiten naturalisieren könne. Wenn gesellschaftliche Phänomene, wie dominante Geschlechterideale, der Technik zugeschrieben würden, werde auch deren sozial-konstruierter Ursprung undeutlich. Diese Aushandlungen fänden jedoch oft nicht im Präsens statt. Stattdessen behandelten sie kollektive Vorstellungen, insbesondere die Idee eines kommenden „digitalen Epochenbruchs“. Und dennoch beschreibe sich auch die Gesellschaft seit den 1980er Jahren selbst zunehmend als „digital“ und auch die materiellen Effekte dieses Einflusses würden immer deutlicher, gerade in Bezug auf Ungleichheiten und den ökologischen Fußabdruck digitaler Technik. Diese Materialität müsse nun behandelt werden.
Überraschend war, dass aus dem Bereich der Ethik hierzu noch keine schlüssigen Ansätze präsentiert wurden. LUKAS BRAND (Bochum), BERNHARD KOCH (Hamburg), LUISE K. MÜLLER (Berlin) und CHRISTOPH SEBASTIAN WIDDAU (Magdeburg) verneinten kollektiv, dass die KI eine „neue Ethik“ benötige. Dafür lieferten sie durchaus schlüssige Argumente. Lukas Brand zeigte die Vielfalt der möglichen Herangehensweisen und Adressaten einer KI-Ethik. Christoph Sebastian Widdau stellte die Fragestellung selbst in Frage, und argumentierte, dass dessen Bejahung eines erheblichen Aufwandes bedürfe, da diese ja die Limitationen bestehender ethischer Denkrahmen beweisen müsse. Am meisten überzeugte Luise K. Müller, die anhand der Tierethik argumentierte, dass durch den kreativen Einsatz bestehender Denkrahmen neue Schlüsse für neue Felder gefunden werden könnten. Und dennoch war es gut nachvollziehbar, warum Rainer Mühlhoffs provokant fragte, ob eine Ethik, die sich auf konservative Denkrahmen stütze und wenig Offenheit für etwas genuin Neues aufweise, heute noch relevant sei. Die von Luise K. Müller vorgeschlagenen neuen, kreativen Mobilisierungen der Ethik wären im Angesicht der bereits bestehenden Materialität der KI hier wünschenswert gewesen.
Denn gerade bei der generativen KI haben wir es mit einer neuen technologischen Möglichkeit zu tun, die auch neue Fragen aufwirft. SVEN NYHOLM (München) machte dies an der Idee der gappiness, also der Lückenhaftigkeit von generativen KI-Systemen aus. Zwar sei es heute möglich, Texte zu produzieren, die qualitativ mit menschlichem Output vergleichbar seien, dennoch entstünden durch die Verbindung von Mensch und Maschine Lücken und somit Fragen. Nyholm stellte hierbei die drei Aspekte Bedeutung, Autor:innenschaft, sowie die Asymmetrie zwischen Anerkennung und Schuld heraus. Maschinengenerierter Text habe keine eigene Bedeutung, die Aussagen seien nicht bewusst gewählt. Menschliche Autor:innen seien nicht nur Produzent:innen eines Texts. Sie dienten auch als Quelle von Autorität, ihre Autor:innenschaft mache sie verantwortlich und liefere zugleich die Grundlage für Anerkennung und Entlohnung ihrer Arbeit. KI-Systeme könnten zwar hilfreiche Kontributionen liefern, doch schüfen sie Lücken in ihrer Funktion als Autor, da sie nur schwer verantwortbar gemacht werden könnten. Zugleich entstehe eine Asymmetrie zwischen Anerkennung und Schuldzuweisungen. Bereits die Möglichkeit, vergleichbares maschinelles Output zu generieren, führe dazu, Menschen schneller für etwaige Fehler oder Ungenauigkeiten in ihrer Arbeit verantwortbar zu machen, während es schwerer würde das Individuelle, also das anerkennungswürdige in der Arbeit zu sehen. Laut Nyholm sind die sozialen Funktionen der Autor:innenschaft schützenswert. Es müssen demnach neue Normen und Konzepte entwickelt werden, um über Kollaborationen mit generativer KI nachzudenken.
WOLFGANG ULLRICH (Leipzig/München) historisierte die Debatte um Autor:innenschaft. Die aufgeworfenen Probleme seien eher eine Renaissance der Debatten um den "Tod des Autors“ und um das „Genie“ in der kreativen Arbeit. Wie bereits in postmodernen Debatte stelle die KI in Frage, inwiefern ein Text auf individuelle Leistung zurückzuführen sei. Zugleich führe die inhärente Bedeutungslosigkeit der generierten Texte, dazu, jegliche Interpretation auf die Leser:innen zu verschieben, da deren Formulierungen nicht bewusst gewählt seien. Des Weiteren werden die KI wie ein „Genie“ behandelt. Die Idee eines genialen Autors oder einer genialen Autorin sei ein geschichtlich relativ neues Konzept. Der Einsatz, aber auch der Vergleich mit der generativen KI, führe hingegen zur Renaissance eines alten Verständnisses des unverständlichen und auch außerhalb des Individuums liegenden Genies, heute in der „black box“ der Algorithmen.
Die Debatte um Autor:innenschaft und Zusammenarbeit von Menschen und KI-Systemen war eines der dominanten Debatten der Tagung. Was hier „Autor:innenschaft“ genannt wird, lässt sich allgemeiner als der Anteil der menschlichen Arbeit im Produktionsprozess verstehen. Die aufgeführten Punkte lassen sich somit zu neuen Problematiken erweitern. So lässt sich die These stützen, dass die Existenz von potenten KI-Systemen die Gefahr beinhaltet, menschliche Arbeit zu entwerten und Fehler härter bestraft werden könnten. Gerade in Arbeitsprozessen ist dies, wie im anfangs erwähnten Drehbuchautor:innenstreik, bereits heute eine begründete Angst. Auch NORBERT HUCHLER (München) wies darauf hin, dass die Mensch-KI-Zusammenarbeit situationsspezifisch und graduell ausgestaltet werden müsse. Es gelte, die zentralen Funktionen der menschlichen Arbeit zu schützen und gleichzeitig effektive Kollaboration zu gestalten.
Den Vortragenden gelang es gut, diese neue Fragestellungen herauszuarbeiten. Leider fehlte es noch an den Antworten, insbesondere im Angesicht der Machtstrukturen der KI. In der Debatte um Autor:innenschaft und Anerkennung wurde die sozioökonomische Struktur der generativen KI nicht hinterfragt. Was bedeutet Mensch-Maschine-Hybridität, wenn die maschinelle Arbeit sich auf unfreiwillige und unentlohnte menschliche Arbeit stützt? Aktuell klagt eine Gruppe von Autor:innen gegen das Unternehmen OpenAI, da diese ihre Bücher ungefragt in ChatGPT einspeiste. Zudem stellt eine aktuelle Studie von David Gray Widder, Sarah West und Meredith Whitaker in Frage, ob generative KI-Systeme auch unabhängig von Großkonzernen, als offene Technologien, bestehen könnte.1 Laut den Autor:innen seien die Kosten im Training und der kontinuierlich notwendigen Einspeisung von Feedback und neuen Daten so kapitalintensiv, dass „offene KI“, befreit von Kapitalinteressen, nur schwer vorstellbar sei. Diese sozio-ökonomische Dynamik der KI hätte noch weitere Fragen aufwerfen können.
Die nüchterne und vielfältige Betrachtung des Forschungsgegenstands machte auch die kontingente Rolle der Technik in der Gesellschaft deutlich. Doch die Ausgestaltung ist stark geprägt von dominanten Narrativen, wie MORITZ INGWERSEN (Dresden) darlegte. Wiederholt beziehen sich die Vortragenden auf die Rolle der Kunst, diese zu durchbrechen und neue Inspirationen zu liefern. MIRA ANNELLI NAß (Bremen) kunsthistorische Analyse zeigte auf, wie KI in künstlerischen Arbeiten kritisch bearbeitet werden kann, um so KI als Mittel der Ausbeutung und Überwachung zu dekonstruieren. Auch Moritz Ingwersen sah eine Rolle für die heutzutage sehr diverse Science-Fiction Literatur, zur Technikkritik beizutragen. CHRISTIAN KOSMAS MAYER (Wien) und ANTON GINZBURG (New York), beides ehemalige Residenzkünstler des Schaufler Labs, befassten sich in ihren Arbeiten damit, sowohl das Potenzial von KI-Systeme für künstlerisches Schaffen zu mobilisieren und gleichzeitig deren Limitationen und Probleme aufzuzeigen. Denn trotz ihrer vielseitigen Gefahren, lässt sich auch die KI positiv verwenden. MATTHEW MCGINITY (Dresden) und AXEL VOIGT (Dresden) präsentierten beeindruckende Arbeiten, die digitale Technik in der Therapie, als Mittel der Wissenschaftskommunikation, oder auch als neue künstlerische Räume aufzeigten.
Die drei Tagungstage in Dresden waren sehr bereichernd in ihrem vielfältigen, kritischen und aktuellen Blick auf KI. Den Vortragenden gelang es, KI historisch und gesellschaftlich einzuordnen und dadurch mit einer Vielzahl an aufschlussreichen Forschungsansätzen zu verbinden, ohne zu weit hinter die technologischen Entwicklungen zurückzufallen. Dieser Blick fehlt leider zu oft in der breiteren KI-Debatte. Doch der Anspruch des Labs, in diesen Debatten hineinzuwirken, scheint so noch nicht gelingen zu können. Während die Gesamtschau überzeugt, verbleiben die einzelnen Panels in intradisziplinären Debatten. Innerhalb der Disziplinen ist die Historisierung der KI richtig und sinnvoll. In der Außenwirkung geht es hingegen darum, die Erfahrung des „Neuen“ ernst zu nehmen und als solchen zu behandeln. Menschen erfahren bereits heute KI als neue materielle Realität, die ihre Arbeitssituation, eine ökologische Zukunft oder Möglichkeiten gesellschaftlicher Gleichstellung gefährden. Dabei gilt es, auch aus den disziplinären Debatten, zum Beispiel zur Aktualität alter ethischer Denkrahmen, herauszutreten, und diesen erfahrenen Neuheiten fundierte Antworten entgegenzusetzen. Dies gelingt bereits in der künstlerischen Auslegung des Labs. Aber auch aktivistische und politische Perspektiven wären hier wertvoll, um aufgeworfene Fragen – Wie gestaltet man gute Mensch-KI Kollaboration? Wie schützt man vor ausbeuterischen Effekten des Einsatzes von KI-Systemen? Wer profitiert von KI oder wie kann man diese gemeinwohlorientiert gestalten? – anzugehen. Denn kann sich das Schaufler Lab in seiner nächsten Förderphase hoffentlich widmen.
Konferenzübersicht:
Donnerstag, 28.09.2023
Eröffnung/Grußworte
Ursula M. Staudinger (Rektorin TU Dresden), Ingo Smit (Vorstandsvorsitzender THE SCHAUFLER FOUNDATION), Christian Prunitsch (Sprecher Bereich Geistes- und Sozialwissenschaften, TU Dresden)
Einführung
Lutz M. Hagen, Kirsten Vincenz (Schaufler Lab@TU Dresden)
Podiumsdiskussion - 2020//2023: Das disruptive Potenzial von KI für Wissenschaft und Kunst
Wolfgang Ullrich (München/Leipzig): Autorschaft in Zeiten von KI
Corinna Bath (Berlin): Ist KI mehr als „Politik mit anderen Mitteln“?
Rainer Mühlhoff (Universität Osnabrück): Autonomie, Privatheit, Chancengleichheit: Wie disruptiv wirkt sich KI auf unsere gesellschaftlichen Werte aus?
Moderation: Birte Platow (TU Dresden)
Fingerfood-Buffet
Ausstellungseröffnung Rosa Barba „The Color Out of Space“, Schaufler Residency@TU Dresden 2023
Grußworte
Jan Gerken (Kanzler TU Dresden), Barbara Bergmann (THE SCHAUFLER FOUNDATION / SCHAUWERK SINDELFINGEN), Kirsten Vincenz (Schaufler Lab@TU Dresden / Kustodie TU Dresden), Einführung Gwendolin Kremer (Schaufler Lab@TU Dresden / Kustodie TU Dresden)
Freitag, 29.09.2023
Panel I - Akteursstatus und Agency
Norbert Huchler (ISF München): Einordnungen von Hybridität am Beispiel der Mensch-Maschine-Interaktion mit KI
Julia Schneider (Berlin): Comic Essays, KI und nachhaltige Bildung: Kunstvolle Kollaborationen mit Automatisierter Agency
Sven Engesser (TU Dresden): Machine Agency As Social Construction
Moderation: Gina Glock (Schaufler Kolleg@TU Dresden), Sandra Mooshammer (Schaufler Kolleg@TU Dresden)
Kaffeepause
Panel II - Braucht KI eine „neue Ethik“?
Mit Lukas Brand (RU Bochum), Bernhard Koch (ITHF Hamburg), Luise K. Müller (FU Berlin), Christoph Sebastian Widdau (OVGU Magdeburg)
Moderation: Christian Schwarke (TU Dresden)
Mittagspause, Alte Mensa (Mommsenstraße 13, 01069 Dresden)
Keynote
M. Beatrice Fazi (University of Sussex): Synthesis in Synthetic Media
Moderation: Tamara Jugov (TU Dresden)
Panel III - Figuren des Zweifelns: Bildevidenz und KI
Luisa Feiersinger (HU Berlin): Maschinelle Imaginationen
Mira Anneli Naß (Universität Bremen): „Das Zeitalter der Wahrheit ist endgültig vorbei“ - zum Phantasma des präzisen Bildes in der Gegenwartskunst
Christian Kosmas Mayer (Schaufler Residency@TU Dresden 2020, Wien): Chronopolitik der wandelnden Bilder: imaginäre Zeitlandschaften zwischen Fabulieren und Täuschen
Moderation: Kerstin Schankweiler (TU Dresden)
Kaffeepause
Panel IV - ‚History never repeats itself, but it does often rhyme.‘ – Wandel und Persistenz kultureller Deutungsmuster der Künstlichen Intelligenz
Daniela Zetti (TU München): Historische Perspektiven auf digitale Gesellschaften. Von der Erfahrung der Ankündigung von Zukunft zur Materialität der Information
Marcus Popplow (KIT Karlsruhe): Anachronismen der Debatte um Künstliche Intelligenz aus technikhistorischer Perspektive
Moritz Ingwersen (TU Dresden): Maschinengeister. Kulturelle Narrative und das sozio-materielle Unbewusste von KI
Moderation: Gisela Hürlimann (TU Dresden)
Keynote
Sven Nyholm (LMU München): Generative AI’s Gappiness: Meaningfulness, Authorship, and the Credit-Blame Asymmetry
Moderation: Lutz M. Hagen (Schaufler Lab@TU Dresden)
Samstag, 30.09.2023
Podium I - Von Laboren, Modulen und (weiteren) Experimenten: Transdisziplinäre Forschungspraxis auf dem Prüfstand
Mit Hermann Diebel-Fischer (ScaDS.AI TU Dresden), Lisa Marie Küssel (CeTI TU Dresden),
Lutz M. Hagen (Schaufler Lab@TU Dresden)
Moderation: Jens Krzywinski (TU Dresden)
Kaffeepause
Podium II - Art meets Science – Science meets Art
Mit Anton Ginzburg (Schaufler Residency@TU Dresden 2021, New York), Matthew McGinity (TU Dresden), Axel Voigt (TU Dresden)
Moderation: Gwendolin Kremer (Schaufler Lab@TU Dresden / Kustodie TU Dresden)
Kaffeepause
Panel V- Delegated Contingencies. Reflections on Social Theories of Machine Learning
Florian Jaton (Geneva Graduate Institute): Enabling ‘AI’: The situated production of commensurabilities
M. Beatrice Fazi (University of Sussex): Formalising a Formalism: On Theory and Machine Learning
Moderation: Richard Groß (Schaufler Kolleg@TU Dresden)
Verabschiedung
Anmerkung:
1http://doi.org/10.2139/ssrn.4543807 (2023)